Echoes in Filter Bubble: Diagnosing and Curing Popularity Bias in Generative Recommenders
滤泡回声:生成式推荐流行度偏差的诊断与治愈
🧭 生成式推荐·流行度偏差诊断与纠偏 ★ 深度解读
Hong Kong Polytechnic University · Central South University · National Super Computing Center Tianjin · City University of Macau · Griffith University
诊断出梯度饥饿与无差别令牌化导致生成式推荐严重流行偏差,并通过骨架令牌化和非对称不似然优化进行纠偏。
📌 工作参考价值(4 点)
- 生成式推荐长尾物品曝光优化:借鉴 SKT,为尾部物品分配额外专用 SID 令牌,继承头部物品前缀但增加区分性,可抑制头部令牌在生成过程中的几何级压制,提升长尾覆盖率。
- 训练技巧迁移:引入 AUO 构建“不期望集合”——基于文本语义相似但 SID 前缀差异大的头部物品,并对生成这些令牌的概率进行额外惩罚,可校正尾部令牌的梯度饥饿,无需重新采样数据。
- 快速诊断方法:通过分析梯度更新符号和 SID 分支点数量,可以快速定位生成式推荐中哪些物品令牌遭遇梯度饥饿,辅助业务系统发现偏差根源。
- 公平性与整体性能的帕累托平衡:在 AUO 权重 α 和不期望集合大小上做精细调参,可在不显著损害整体指标(如 HR 仅降 ~7%)的前提下,大幅提升尾部性能与公平性,这为电商平台实现多目标优化提供了可落地的调节手段。